亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例秦皇岛市某某化学维修网点亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马秦皇岛市某某化学维修网点用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:热点)
- 涉19省份重磅规划:长江流域将建成黄金经济带
- 突发!美国关闭俄在华盛顿和纽约的签证中心
- 给奖不眨眼的美国土豪大学有哪些?!虽然申不上但我大受震撼....
- 金爵参赛片|《星星在等我们》:张大磊宇宙的理想和浪漫
- 记者:布罗佐维奇伤势不重,他缺席的时间不会很长
- 会计专业与数学无关?张雪峰打破传统认知,对填报志愿或有帮助
- 以色列北部大面积响起防空警报 views+
- 国际奥委会明确拒绝:不可能给她一枚银牌! views+
- 六名“新兵”均无缘冠军 中国跆拳道延续无金尴尬 views+
- 中国队首次夺得花样游泳双人项目奥运金牌 views+
- 马龙感谢在身边和身后的所有人 views+
- 李雯雯又比心了 views+
- 谷爱凌说自己不会练跳水:因为我个子高跳水不合适 views+
- 李发彬欧紫霞担任闭幕式中国旗手 views+
- 准大学生旅游在酒店遭陌生人砍伤,警方通报 views+
- 部分中小学家长呼吁,新学期恢复以往教学模式,取消课后延时服务 views+